Naukowcy ostrzegają: „Cyberprzestępcy mogą włączyć ogrzewanie w twoim domu, nagrywać filmy bez twojej wiedzy, a nawet otwierać okna”.

Zaproszenie to wszystko, czego cyberprzestępcy potrzebują, aby przejąć kontrolę nad Gemini i manipulować urządzeniami podłączonymi do sieci domowej w ramach ataku znanego jako „promptware”. Promptware wykorzystuje integrację dużych modeli językowych (LLM) z aplikacjami w celu wprowadzania złośliwych komunikatów , które mogą zagrozić integrującym je asystentom AI.

Ryzyko dla użytkowników jest realne, co wykazali trzej badacze z Uniwersytetu w Tel Awiwie (Izrael): Ben Nassi, Stav Cohen i Or Yair. W swojej pracy wykorzystali oni ataki typu promptware na asystenta Google Gemini , aby uzyskać dostęp do architektury Workspace i manipulować urządzeniami inteligentnego domu lub wydobyć informacje z wiadomości e-mail.

Wykorzystana przez nich odmiana oprogramowania typu promptware umożliwia wstawianie złośliwych komunikatów do Gemini za pośrednictwem wiadomości e-mail, zaproszeń w kalendarzu lub udostępnionych dokumentów. Na przykład cyberprzestępcy wysyłają ofierze zaproszenie na jej konto Gmail lub Kalendarz , a gdy ofiara poprosi Gemini o informacje dotyczące tego e-maila, złośliwy komunikat zostaje aktywowany i infekuje asystenta.

Otwiera to drogę do manipulowania usługami i urządzeniami, z których korzysta ofiara za pomocą Gemini, ułatwiając na przykład sterowanie termostatem, oświetleniem domu lub dostęp do poczty e-mail.

Dzięki temu cyberprzestępcy mogą wyłączyć światło, włączyć ogrzewanie, przesyłać strumieniowo wideo bez wiedzy ofiary , usuwać wydarzenia w kalendarzu, wyodrębniać dane z poczty e-mail, geolokalizować ofiarę, a nawet otwierać okno.

Ten typ ataku atakuje Gemini zarówno w aplikacjach mobilnych i internetowych, jak i w Asystencie Google. Według badaczy, 73% zagrożeń, które przeanalizowali w swoich badaniach , stanowi ryzyko o wysokim stopniu krytyczności. Jak donoszą, powiadomili Google o tym zagrożeniu w lutym, a w tym czasie firma technologiczna wdrożyła „wielowarstwowe mechanizmy obronne” w celu złagodzenia zidentyfikowanych problemów bezpieczeństwa.